Heise 23.09.2026
12:00 Uhr

heise+ | Custom-HBM für KI-Beschleuniger: Nvidias proprietäres NVHBM ist nur der Anfang


Kommende KI-Beschleuniger von Nvidia steuern spezielle NVHBM-Speicherstapel an. Andere Hersteller planen Ähnliches, um Performance und Effizienz zu steigern.

heise+ | Custom-HBM für KI-Beschleuniger: Nvidias proprietäres NVHBM ist nur der Anfang

Leistungsstarke KI-Beschleuniger für Rechenzentren stammen zwar von Grafikchips ab, doch die GPUs haben sich längst auch jenseits der KI-Spezialisierung weiterentwickelt. Die Servervarianten verwenden keinen GDDR-Speicher, wie er bei 3D-Grafikkarten üblich ist; stattdessen steuern sie High Bandwidth Memory (HBM) an. Dieses schafft die namensgebende hohe Datentransferrate (Bandbreite) durch einen Kniff: Ein HBM-Speicherstapel hat Tausende von Datensignalleitungen. Damit die Signalwege kurz bleiben, sitzt HBM direkt neben dem zugehörigen Chip im selben Package.